La abogada que busca reducir los sesgos con IA

La abogada de la Universidad Católica (UC) y Máster en Derecho (LL.M) en Estados Unidos, María José Martabit, ha dedicado sus últimos años de trayectoria a enfrentar la discriminación que generan los sesgos alimentados por las diferentes brechas sociales, raciales, y de género en el mundo de las comunicaciones corporativas y personales.

Aunque nació en Buenos Aires, ha vivido casi toda su vida en Chile. Hoy es fundadora y CEO de Theodora AI, una startup tecnológica que desarrolla herramientas disruptivas basadas en Inteligencia Artificial (IA) para detectar y corregir sesgos en las comunicaciones -tanto a nivel de empresas y corporaciones, como de personas- y en algoritmos.

Luego de cinco años trabajando en estudios jurídicos, viajó a Seattle (EEUU) a estudiar su LL.M. en Propiedad Intelectual en la University of Washington, donde las clases eran impartidas por profesores de Microsoft o Amazon. “Fue muy interesante, porque esa es una ciudad donde nace Amazon, Real Networks, y un montón de otras empresas de software también”.

Respecto de Theodora AI: “La idea surge derechamente cuando observo al final del día tantas comunicaciones con sesgos brutales que generan tanto dolor y discriminación en corporaciones y en personas”.

Esta etapa, afirmó, “fue un punto de inflexión”, porque aprendió de patentes y tecnología, y sus conocimientos le hicieron ver “que las posibilidades eran infinitas”.

Estuvo trabajando un tiempo en Real Networks, una empresa de software. No obstante, tras regresar a Chile, volvió a ejercer en un bufete de abogados y en 2016 comenzó a hacer clases en derecho de Propiedad Intelectual en la UC, con “el foco de la tecnología al servicio de la justicia”, dijo.

Brechas e inquietudes

En 2017 nace su primera hija -de tres- y también su inquietud por querer entender y estudiar las brechas que existen en los distintos grupos en la sociedad. Esto la llevó a tomar un curso de liderazgo para mujeres, para entender las problemáticas detrás de los fenómenos que alimentan los sesgos en la televisión y en la prensa, como la segregación racial, la discriminación, la falta de inclusión y diversidad, y la injusticia.

“Si llevamos tanto tiempo invirtiendo en que ciertas brechas disminuyan, por qué seguimos con brechas igual de grandes, pese a que se invierten millones de dólares por empresas y gobiernos”, dijo.

Dos años después, comenzó a impartir en la UC su propio curso de liderazgo femenino en el derecho, el que enseñaba cómo los sesgos y la discriminación juegan roles importantes en la aplicación de la justicia. “Participaron ministras de Estado y de la Corte Suprema”, afirmó.

La fundadora y CEO de Theodora AI, María José Martabit, durante el EtMday 2023

La startup

A inicios de 2022, ante la ausencia de un detector y corrector de sesgos, Martabit fundó Theodora AI, una startup con la que buscaba mitigar los daños que genera la discriminación tanto en las personas como en las propias empresas.

“La idea surge derechamente cuando observo al final del día tantas comunicaciones con sesgos brutales que generan tanto dolor y discriminación en corporaciones y en personas. Esto no es un problema de las personas, es un problema de todas las organizaciones”, señaló.

Ese mismo año se asoció con Ricardo Baeza-Yates, investigador chileno experto en IA con experiencia en sesgos y director de Investigación en el Instituto de IA Experiencial de Northeastern University en Silicon Valley, EEUU, quien se sumó como fundador de Theodora AI, para llevar a cabo el proyecto.

Martabit explicó que el nombre de la startup está inspirado en la emperatriz bizantina Teodora, esposa del emperador Justiniano (conocido como el padre del derecho romano), una de las mujeres pioneras en aportar “muchos de los aspectos del derecho romano en esa época, y por eso es que se entiende muy bien hoy día que había normas sobre los niños y las mujeres”.

La plataforma detecta y mitiga sesgos de género, edad, discapacidad, nacionalidad, religión, orientación sexual o socioeconómicos, a través de la aplicación de IA, en textos, imágenes y en algoritmos.

En el caso de textos, explicó que corrige la escritura con sugerencias. “Te dice: ‘puedes cambiarlo por esta frase o por esta otra’. Generalmente son dos sugerencias”, detalló.

La herramienta también apunta al análisis de sesgos algorítmicos. En este caso, permite detectar y reducir riesgos en la recopilación de datos, aprendizaje de modelos e IA, en la toma de decisiones.

Martabit comentó que actualmente, la plataforma está en fase piloto “testéandola a nivel beta” y añadió que el lanzamiento oficial será en 2024, para toda Latinoamérica.